Tổ phụ là Trương Nhơn Hiến (张仁宪), làm quan tới chức thái tử trung doãn (太子中允), cơ phụ Trương Quan Triều (張光朝), làm quan tới chức lục bộ thượng thư. Từ nhỏ đọc nhiều kinh sách, lại còn tinh thông 《tả thị xuân thu》(左氏春秋), trở thành quân sư Kế Bắc Hùng Võ (為薊北雄武)（Thiên Tân Kế Huyện). Năm đầu Hội Xương（841) tháng 9, quân Lô Long Trần Hành Thái (陳行泰) phát động binh biến, giết tiết độ sứ Sử Nguyên Trung (史元忠) tự lập. Lại bị nha tướng Trương Giáng (張絳) tru sát, Trương Giáng đe đọa tên TRương Trọng Võ，trong một lần mời Trương Trọng Võ chủ trì quân vụ, không lâu lại viết thư thỉnh cầu làm tiết độ sứ. Trương Trọng Võ nổi trận lôi đình, khởi binh tấn công U Chau (Bắc Kinh), tính phái quân lại Ngô Trọng Thư (吳仲舒) tới kinh sư, đã mời quân động tới, tể tướng Lý Đức Dụ (李德裕) sử dụng Tri Lô Long giữ lại Trọng Võ phía sau. Không lâu，Trương Trọng Võ dùng tám trăm tinh quân, năm trăm sĩ đoàn công khắc U châu, giết Trương Giáng. Hội Xương mùa xuân năm thứ 2, tháng đầu tiên, để mặc cho Lô Long

Hội Xương năm thứ hai（842), Hồi Hột đại tướng Na GIáp Xuyến (那颉啜), thống lĩnh quân nam lược, mạng em trai của Trương Trọng Võ Trương Trọng Chí (张仲至) sử dụng ba vạn đại quân phản kích, kích phá kỵ binh Hồi Hột,trên 3 vạn người đầu hàng. Trương Trọng Võ lại phái đại tướng Thạch Công Tự (石公绪) lãnh quân tấn công Kiết Đan (契丹) cùng Hề Tộc (奚族), tận sát trên 8 trăm người của giám sứ Hồi Hột. Tháng 8, Dường Đình gửi binh ba đường, bắc phạt Hồi Hột (回纥), sử dụng Trọng Võ đảm nhận đón đầu sứ quân của Hồi Hột phía đông, Ô Giới Khả Hãn (乌介可汗) đào vong, hơn người vạn người của Hồi Hột đầu hàng. Đại Trung năm thứ 3（849) bệnh chết tại Vu Thượng ，quân lính ủng hộ lập em trai Trương Trực Bàng (张直方) nối tiếp chức vị.